Where to Look and What to Use: Retrieve-Localize-Generate for Long-Term Conversational Memory Question Answering
看哪里与用什么：面向长期对话记忆问答的检索-定位-生成框架
🧭 长时对话记忆QA · RAG
University of Electronic Science and Technology of China, Chengdu, China · Institute of Information Engineering, Chinese Academy of Sciences, Beijing, China · School of Cyber Security, University of Chinese Academy of Sciences, Beijing, China · MiLM Plus, Xiaomi Inc., China · State Key Laboratory of Internet Architecture, Tsinghua University, Beijing, China
提出MemLoc框架，通过多粒度检索、证据定位与位置ID引导生成，解决长期对话记忆问答中的碎片化与噪声问题
📌 工作参考价值（4 点）
- 借鉴多粒度记忆单元与图路由：在用户长期行为序列建模（如电商会话历史）中，将 session 按不同时间粒度/主题切分为多粒度单元，用图结构建模跨会话依赖，配合熵基粒度选择，可提升对长周期用户兴趣的召回精度，避免只依赖全局 embedding。
- 引入证据定位层压缩上下文：在 RAG 生成前增加一个“定位器”，从检索到的多个文档或历史记录中抽取关键片段并重排，输出轻量位置 ID 而非全文，能显著降低无关噪声干扰，缓解 lost-in-the-middle 效应，可复用于客服对话摘要、用户评论分析等场景。
- SHPO 训练技巧：用“自反思提示策略优化”训练定位器，即让模型生成推理过程并依据反馈调整，可将此方法用于训练业务中的证据提取/重排模块，提升定位精度。
- 工程实现上，位置 ID 作为 grounding 信号比直接拼接原文更省 token，同时保留原文索引方便回溯，适合在低延迟 Agent 系统中部署。